ReMem：重新思考长上下文推荐智能体的感知与记忆
🧭 推荐 Agent 的感知与长程记忆优化 ★ 深度解读
The Hong Kong Polytechnic University · Nanyang Technological University
用 OCR 感知与分块动态记忆重构推荐 Agent，平均相对提升 5.16%
📌 工作参考价值（4 点）
- OCR 商品页感知可以替代 HTML 解析：在用户侧 Agent 中直接对商品页/App 截图做 DeepSeek-OCR，生成结构化商品卡片，平台无关且能过滤广告噪声，避免为每个站点维护 HTML parser。
- 分块动态记忆 TEM 很适合长用户行为序列：把历史按窗口分块，维护固定长度自然语言记忆，再基于最终记忆做推荐；不引入外部向量库或 KV cache 改动，线上实现简单、可 debug、可用 prompt 约束记忆内容。
- 多段独立记忆对话的 RL 训练可借鉴 Multi-Memory GRPO：把最终答案 advantage 传播到所有中间记忆 token；建议先 warm-up 两个 epoch 再设置 λ=0.7，避免早期带偏记忆更新。
- 长上下文不是越长越好：QwenLong-L1、向量记忆在超长上下文下仍明显衰减；电商用户行为序列建模可优先用可控的自然语言记忆压缩，而不是全量输入或纯向量检索。
SimpleOPD：简单与分词器无关的长上下文推理在线策略蒸馏
🧭 On-policy 蒸馏 · 跨 tokenizer 长上下文推理 ★ 深度解读
Shanghai Artificial Intelligence Laboratory
用共享文本空间跨 tokenizer 对齐并加入终止 token 掩码与参考 KL 稳定长上下文推理蒸馏
📌 工作参考价值（4 点）
- 跨模型/跨 tokenizer 蒸馏工程：业务中想把大推理模型蒸馏到小线上模型，不必做人工 token 映射，直接让 teacher 用自己的 tokenizer 读 student 生成的文本，只对齐文本 span 完全相同的 token；实验中 lexical overlap 始终 >90%，大部分监督信号可以保留，适合 Qwen/Llama/GLM/Gemma 等不同家族的在线蒸馏。
- 长链推理蒸馏的稳定性 trick：OPD 直接从长上下文老师搬推理能力，学生容易出现长度爆炸、截断、重复；可以照搬两个简单做法：① 掩盖 </think>、<|im_end|> 等终止/结构 token 的 advantage，不强制学生模仿老师的终止倾向；② 加 student-reference KL，防止策略偏移。Intern-S2 和 Qwen3.5-35B 上能有效把截断率降到接近 0。
- KL 系数是重要的超参：师生差距越大，越需要更强的 reference KL；GLM-4.7 消融显示 0.5 不足、1.2 过度，1.0 最均衡。业务上做蒸馏可以优先按模型家族差异设 0.5/1.0 两档。
- 训练数据聚焦更利于能力迁移：仅用 proof-only 数据蒸馏，目标证明能力提升最大；混入通用可验证数学数据反而削弱 ProofBench 迁移。类比到业务：要蒸馏商品知识、query 改写或策略推理，训练集应保持任务纯净，不要混太多无关任务。
WILDTRACE：长上下文自然证据链推理基准
🧭 长上下文推理 · 自然证据几何结构
Hong Kong University of Science and Technology · Alibaba Group
从真实事故报告与小说中抽取文档内在的因果、时序证据链，构建多步推理基准，揭示长上下文模型的整合推理短板
📌 工作参考价值（4 点）
- 在电商长文档分析（如商品详情聚合、售后纠纷报告）中，可借鉴其“源端优先”证据链抽取思路，利用文档目录、因果提示自动构建多跳推理样本，低成本生产高质量微调数据。
- 对于搜索/推荐系统中的复杂用户意图理解，可设计类似的反事实分支（counterfactual branching）测试，评估模型在用户行为序列中识别因果归因的能力，而非仅靠相关性。
- 若构建 RAG 或 Agent 工作流，需要在检索后增加“证据缝合”步骤，显式建模段落间的因果、时序关系，而不是简单拼接 Top-k 片段；可参考文中七种几何结构设计中间推理链。
- 评估长上下文模型时，采用“证据隐藏”条件（withheld evidence）来检测模型是否真正理解文档内在逻辑，避免模型仅凭表层词匹配或位置线索蒙对答案，对业务中的可靠性测试有参考价值。
递归证据重放：提升LLM长上下文推理的免训练方法
🧭 长上下文推理 · 证据重放增强
University of Illinois Urbana-Champaign
通过递归选择与问题相关的上下文证据并重放，无需训练即提升LLM长上下文推理的证据利用率
📌 工作参考价值（4 点）
- 可将ReContext集成到现有LLM推理管线，用于处理长用户对话历史、多文档召回等场景，无需额外训练或外部存储。
- 在搜索推荐Agent中，当需要从大量上下文（如用户长期行为日志、多篇商品评论）抽取关键证据时，使用递归重放可显著提升LLM回答相关问题的准确性。
- 方法基于模型自身的注意力分数选择证据，可适配不同LLM架构，避免了硬截断上下文带来的信息丢失，适合在端侧或低资源推理中应用。
- 理论框架将上下文视为联想记忆存储体，对优化检索增强生成（RAG）系统的内部证据利用机制有启发，可指导设计更有效的上下文选择策略。
递归智能体框架：以完整工具集为递归单元的长上下文推理
🧭 Agent 架构 · 长上下文推理 · 代码即行动 ★ 深度解读
PricewaterhouseCoopers, U.S.
将递归单元从裸模型调用升级为完整 agent harness，在长上下文推理上超越 coding agent 和 RLM，代码生成子 agent 并行处理。
📌 工作参考价值（4 点）
- 用代码脚本生成子 agent 替代工具调用并行限制：当需要处理大量独立条目（如千级商品描述分析）时，由父 agent 生成 asyncio 并行脚本，绕过 API 并行调用上限，可应用于电商批量商品属性提取或用户评论汇总。
- 递归单元配备完整文件系统与执行环境：每个子 agent 拥有独立的上下文窗口和工具（read_file、grep、execute 等），避免共享状态干扰，适合多文档聚合任务（如合同审查、多源数据抽取），可直接用于客服历史或物流文档分析。
- 模式可组合：代码路径处理海量条目，工具调用路径处理少量任务：根据条目数自动选择策略（少于5个用 JSON tool call，否则用代码执行），兼顾效率与灵活性，推荐系统中对候选池做细粒度推理时可借鉴。
- 递归深度可配置且架构与模型解耦：沿用 GPT-5 到 Claude Sonnet 均显著提升，表明 harness 设计本身带来增益，从业者可在现有模型基础上仅升级编排逻辑而无须换模型。
去中心化多智能体系统与共享上下文
🧭 去中心化多智能体协调框架 ★ 深度解读
Stanford University
提出去中心化多智能体框架DELM，通过共享验证上下文和异步任务队列，在软件工程与长上下文推理上显著提升性能并降低近半成本。
📌 工作参考价值（4 点）
- 共享验证状态替代中心化路由：在电商多智能体场景（如并行搜索、推荐、客服），通过维护一个全局共享的已验证上下文（可类比为购物车状态或用户意图），让多个 Agent 异步读写紧凑进展摘要，避免依赖单一协调器合并结果，减少串行瓶颈和错误传播。
- 先验证后准入的防污染机制：对 Agent 写入共享状态的内容进行自动验证，检查其与原始证据的一致性，避免不可靠的信息在 Agent 间扩散。在商品知识库更新、多源信��聚合时，可借鉴此设计确保共享状态可信。
- 分层压缩与按需展开：用极简要点（gist）构建全局视图，需要细节时再追溯深层摘要或原始数据，降低长上下文推理的 token 开销。处理海量商品描述、用户评论、长文档问答时，可在低分辨率快速扫描后精准定位关键段落。
- 异步任务队列与自主领取：Agent 从队列自行认领子任务，完成后写回结果，适合大量并行子任务（如分品类推荐生成、多广告渠道创意生成），天然支持弹性扩展，并可通过失败记录复用避免重复试错。
LongTraceRL：利用搜索代理轨迹与评分量规奖励学习长上下文推理
🧭 长上下文强化学习 · Rubric 奖励 ★ 深度解读
Tsinghua University
通过搜索代理轨迹构建分层干扰项与实体级评分量规奖励，大幅提升长上下文 RL 的训练效果
📌 工作参考价值（4 点）
- 训练数据构造：借鉴搜索代理的打开/引用行为生成高混淆度（打开但未引用）与低混淆度（检索到但未打开）干扰项，比随机采样或单次搜索更贴近真实检索场景，可迁移到电商长文档推荐解释、多跳问答数据增强。
- 过程奖励设计：实体级 Rubric 奖励只施加于最终答案正确的样本（positive-only），有效防止模型通过枚举实体而不做真实推理来刷分。在 Agent 工具调用或多步推理任务中，可对中间关键信息（如商品属性、状态变迁）设计类似逐项检查的奖励，避免 reward hacking。
- 组内归一化：对不同难度的样本，在 rollout 组内归一化 Rubric 分数，使过程信号与难度解耦，让不同任务的奖励尺度可比较，利于通用训练。
- 适中权重：超参 α=0.3 时效果最佳，过大（0.5）会稀释结果奖励；经验上可在多目标 RL 中保持 outcome reward 主导地位。